KI, Maschinelles Lernen & LLMs
Bisher ging es darum, wie Daten gesammelt und verkauft werden. Jetzt zur Maschine, die sie auswertet – denn ohne maschinelles Lernen wären die gesammelten Berge nutzlos.
Für den Unterricht: Zu diesem Thema gibt es eine Diskussions-Präsentation mit Schätzfragen und Positionierungs-Übungen.
1. Eine Empfehlung, die nicht passt
Bevor wir erklären, wie maschinelles Lernen funktioniert, probierst du es besser selbst aus.
Der Znüni-Empfehler
Diese kleine Empfehlungsmaschine schlägt dir einen Znüni vor. Sie braucht dazu genau eine Information von dir: Welches Handy hast du?
Zwei Dinge nimmst du daraus mit. Erstens: Eine Empfehlung ist nie besser als der Datensatz dahinter – zehn Personen an einem Bahnhof sind keine Grundlage für irgendetwas. Zweitens: Selbst mit denselben Daten hängt alles davon ab, welches Merkmal ausgewertet wird. Das Handy sah aus wie ein guter Hinweis, war aber nur zufällig mit dem Alter verknüpft.
Echte Empfehlungssysteme arbeiten nicht mit zehn Personen, sondern mit Millionen, und nicht mit einem Merkmal, sondern mit hunderten. Am Grundproblem ändert das wenig: Sie finden Zusammenhänge, aber sie verstehen sie nicht.
2. Programmiert oder gelernt?
Ein gewöhnliches Programm folgt Regeln, die ein Mensch aufgeschrieben hat: Wenn der Betrag über 1000 Franken liegt, dann melde den Fall. Man kann jede dieser Regeln nachlesen und begründen.
Beim maschinellen Lernen schreibt niemand die Regeln. Man gibt dem System stattdessen viele Beispiele mit der jeweils richtigen Antwort und lässt es selbst ein Muster suchen, das möglichst gut passt. Das Resultat nennt man ein Modell. Es funktioniert oft erstaunlich gut – und niemand kann genau sagen, warum es im Einzelfall so entschieden hat.
Daraus folgt der wichtigste Satz dieses Kapitels: Ein Modell lernt, was in den Daten steht, nicht was richtig wäre.
3. Trainiere das Modell von Hand
Ein Modell «lernt» nichts Geheimnisvolles. Es dreht an Zahlen, bis das Ergebnis stimmt. Am schnellsten verstehst du das, wenn du selbst an diesen Zahlen drehst:
Mia schaut gerne Videos. Das Modell soll für jedes Video vorhersagen, ob sie es mag. Es kennt pro Video nur drei Merkmale. Für jedes Merkmal gibt es ein Gewicht: je höher, desto mehr spricht das Merkmal für ein Like. Sind die aktiven Gewichte zusammen mindestens so gross wie die Schwelle, sagt das Modell «Like».
Die Regel, nach der auch die Maschine korrigiert
Nimm ein Video, bei dem das Modell falsch liegt. Sagt es «kein Like», obwohl Mia es mag, erhöhe alle aktiven Gewichte um 1 und senke die Schwelle um 1. Sagt es «Like», obwohl Mia es nicht mag, senke alle aktiven Gewichte um 1 und erhöhe die Schwelle um 1. Wiederhole das, bis nichts mehr falsch ist. Genau diese Regel führt die Maschine aus, nur schneller – sie macht nichts, was du nicht auch von Hand tun könntest.
Wenn du das Modell von Hand hinbekommen hast, drück auf «Maschine trainieren lassen» und schau zu. Die Maschine tut exakt dasselbe wie du – sie probiert die Korrekturregel stur durch, bis kein Fehler mehr übrig ist. Der ganze Unterschied liegt in der Geschwindigkeit: Was du bei drei Merkmalen von Hand schaffst, macht ein echtes Modell mit Millionen von Gewichten milliardenfach pro Sekunde.
Dieses Bauteil heisst Perzeptron und stammt aus den 1950er-Jahren. Die neuronalen Netze hinter heutigen Bilderkennern und Sprachmodellen bestehen aus sehr vielen solchen Bauteilen in mehreren Schichten – das Grundprinzip von Gewichten und Schwelle bleibt dasselbe.
Ohne Computer: Das funktioniert auch auf Papier. Zeichne ein Perzeptron mit drei Eingängen an die Wandtafel, schreib die Gewichte und die Schwelle daneben und lass die Klasse für jedes Video die Summe im Kopf rechnen. Bei jedem Fehler korrigiert die Klasse gemeinsam nach der Regel. Wer will, verteilt Kärtchen mit eigenen Videos und lässt zwei Gruppen gegeneinander antreten: Welches Team braucht weniger Korrekturen?
4. Was passiert, wenn die Altdaten verzerrt sind
Bisher haben wir dem Modell gesagt, was richtig ist. Was aber, wenn schon die Beispiele schief sind? Im folgenden Applet entscheidet ein Modell, wer zu einem Vorstellungsgespräch eingeladen wird. Trainiert wird es mit den Entscheidungen der letzten Jahre. Vergleiche die beiden Datensätze und beobachte die Einladungsquoten der zwei Gruppen:
Eine Firma lässt eine KI entscheiden, wer zum Vorstellungsgespräch eingeladen wird. Trainiert wird sie mit den Entscheidungen der letzten Jahre. Die Maschine kennt pro Person nur zwei Zahlen: das Ergebnis eines Eignungstests und die Länge der Lücke im Lebenslauf. Die Gruppenzugehörigkeit sieht sie nicht – Gruppe B hat aber häufiger Lücken, etwa wegen Betreuungsaufgaben.
Der entscheidende Punkt: Das Modell sieht die Gruppenzugehörigkeit gar nicht. Es benachteiligt Gruppe B trotzdem, weil es die Benachteiligung über ein anderes Merkmal gelernt hat – hier über die Lücke im Lebenslauf, die als Stellvertreter für die Gruppe funktioniert. Ein heikles Merkmal einfach wegzulassen genügt deshalb nicht: Die Information steckt weiterhin in den anderen Zahlen.
Genau das geschah bei Amazon: Der Konzern trainierte ab 2014 ein System, das Lebensläufe automatisch bewerten sollte, mit den Bewerbungen der zehn Jahre davor. Weil in dieser Branche zuvor überwiegend Männer eingestellt worden waren, lernte das System, Lebensläufe abzuwerten, in denen etwa ein Frauen-Schachclub oder eine Frauenhochschule vorkam. 2018 wurde das Projekt eingestellt.
Ähnlich gelagert ist die Untersuchung Gender Shades von Joy Buolamwini und Timnit Gebru (2018): Kommerzielle Gesichtserkennungssysteme lagen bei hellhäutigen Männern in weniger als einem Prozent der Fälle falsch, bei dunkelhäutigen Frauen in bis zu 34,7 Prozent. Die Systeme waren nicht «rassistisch programmiert» – sie waren mit Bildern trainiert worden, auf denen hellhäutige Männer stark übervertreten waren.
Wie schwer solche Fehler wiegen, zeigt die niederländische Kinderzulagen-Affäre: Eine Risikoeinstufung der Steuerbehörde stufte über Jahre zehntausende Familien fälschlich als Betrüger ein, forderte hohe Beträge zurück und trieb Menschen in den Ruin. Doppelte Staatsbürgerschaft war eines der verwendeten Merkmale. 2021 trat die niederländische Regierung deswegen zurück.
5. Wie ein Sprachmodell schreibt
Ein grosses Sprachmodell – ein Large Language Model, kurz LLM – macht im Kern eine einzige Sache: Es sagt voraus, welches Wort als Nächstes am wahrscheinlichsten kommt, hängt es an und beginnt von vorn. Das folgende Mini-Modell kennt nur ein paar Sätze, arbeitet aber nach genau demselben Prinzip:
Dieses Mini-Sprachmodell kennt nur einen kurzen Text (unten aufklappbar). Es hat gezählt, welches Wort dort wie oft auf welches folgt – mehr weiss es nicht. Genau so, nur millionenfach grösser, arbeitet ein LLM.
Der ganze Text, den dieses Modell gelesen hat
Das Handy sammelt jeden Tag neue Daten. Die App sammelt heimlich meinen Standort. Die Firma verkauft meine Daten an einen Werbekunden. Der Algorithmus zeigt mir immer neue Videos. Der Algorithmus kennt meine Interessen besser als meine Freunde. Meine Daten gehören eigentlich mir. Die Werbung kennt mich besser als meine Eltern. Das Modell lernt aus alten Daten neue Muster. Das Modell erfindet manchmal eine sehr überzeugende Antwort. Die Antwort klingt gut und ist trotzdem falsch. Ein Profil entsteht aus vielen kleinen Spuren. Jede Spur allein sagt fast nichts. Viele Spuren zusammen sagen sehr viel. Die Schule diskutiert heute über künstliche Intelligenz. Die Klasse diskutiert heute über meine Rechte. Das Gesetz schützt meine Daten seit 2023.
Stell die Zufälligkeit auf null: Das Modell schreibt immer dasselbe, langweilig und wiederholend. Stell sie hoch: Es wird kreativ und redet Unsinn. Echte Sprachmodelle haben denselben Regler, sie haben nur statt acht Sätzen einen grossen Teil des Internets gelesen und schauen nicht nur auf das letzte Wort, sondern auf tausende davor.
Damit ist auch erklärt, warum ein Chatbot überzeugend Falsches schreibt. Er prüft nichts nach; er wählt wahrscheinliche Wörter. Eine erfundene Quelle sieht aus wie eine echte Quelle, weil echte Quellen genau so aussehen. Man nennt das Halluzination, und es ist kein Fehler im System, sondern eine Folge davon, wie es funktioniert.
Zwei Fälle, die das teuer gemacht haben: 2023 reichte ein New Yorker Anwalt eine Klageschrift mit mehreren Gerichtsurteilen ein, die ChatGPT erfunden hatte – Aktenzeichen inklusive; das Gericht verhängte eine Busse. Und 2024 entschied ein kanadisches Gericht, dass Air Canada für eine Falschauskunft ihres eigenen Chatbots geradestehen muss: Was der Bot verspricht, gilt.
6. Was du dem Chatbot erzählst
Alles, was du in ein Chatfenster tippst, verlässt dein Gerät und liegt auf einem fremden Server – oft im Ausland, je nach Anbieter und Einstellung auch als Trainingsmaterial. 2023 gaben Mitarbeitende von Samsung internen Quellcode und Sitzungsprotokolle in ChatGPT ein, um sie prüfen und zusammenfassen zu lassen; der Konzern verbot die Nutzung daraufhin intern.
Für dich heisst das ganz praktisch: Namen von Mitschüler:innen, Fotos anderer Personen, Arztberichte, Passwörter, Adressen und alles, was dir jemand im Vertrauen geschrieben hat, gehören nicht in einen Chatbot. Deine eigene Mathe-Frage schon.
Nebenbei ist auch die Herkunft der Trainingsdaten umstritten: Die New York Times klagte Ende 2023 gegen OpenAI und Microsoft wegen der Verwendung ihrer Artikel, die Bildagentur Getty gegen Stability AI wegen Millionen von Fotos. Diese Verfahren entscheiden mit darüber, wem die Grundlage der heutigen KI eigentlich gehört.
7. Deepfakes
Dieselbe Technik, die Bilder erzeugt, erzeugt auch Fälschungen. Im Februar 2024 überwies eine Mitarbeiterin des Ingenieurbüros Arup in Hongkong rund 25 Millionen US-Dollar, nachdem sie in einer Videokonferenz mit ihrem Finanzchef und weiteren Kolleg:innen gesprochen hatte – alle Teilnehmenden ausser ihr selbst waren gefälscht.
Näher liegt ein anderer Fall. An einer Deutschschweizer Sekundarschule erstellten Schüler mit einer frei zugänglichen Website KI-Nacktbilder von Mitschülerinnen und verbreiteten sie über Snapchat; die Jugendanwaltschaft eröffnete ein Verfahren. Im Wallis wurde 2026 ein Betreuer verurteilt, der aus einem Ferienfoto einer 14-Jährigen ein solches Bild erzeugt hatte.
Die Rechtslage ist eindeutig: Sexualisierte Darstellungen von Minderjährigen sind strafbar, auch wenn sie vollständig von einer KI erzeugt wurden und keine reale Aufnahme zugrunde liegt. Ebenfalls strafbar oder zivilrechtlich angreifbar sind Fälschungen, die Personen blossstellen oder ihre Persönlichkeit verletzen. Wer betroffen ist, sollte Beweise sichern (Screenshots, Zeitpunkt, Konten), nichts weiterleiten und sich an eine Vertrauensperson, die Schulleitung oder die Polizei wenden; anonym erreichbar ist auch die Beratung von Pro Juventute unter der Nummer 147.
8. Und die guten Seiten?
Es wäre schief, das Kapitel hier zu beenden. Modelle erkennen auf Netzhautbildern Anzeichen von Diabetes, bevor Symptome auftreten. Sie helfen, Proteinstrukturen vorherzusagen, wofür es früher Jahre im Labor brauchte. Sie übersetzen, untertiteln und lesen Texte vor und machen damit Inhalte für Menschen mit Beeinträchtigungen zugänglich.
Auch in der Schweiz gibt es eine bemerkenswerte Entwicklung: Am 2. September 2025 veröffentlichten die ETH Zürich, die EPFL und das Supercomputerzentrum CSCS Apertus, ein grosses Sprachmodell, das vollständig offen ist – Gewichte, Trainingsdaten und Vorgehen sind dokumentiert und frei nutzbar. Es beherrscht über tausend Sprachen, darunter Schweizerdeutsch und Rätoromanisch. Damit lässt sich zum ersten Mal nachprüfen, womit ein solches Modell gefüttert wurde – bei den grossen kommerziellen Modellen weiss das niemand ausserhalb der Firma.
9. Selbsttest
KI, ML und Sprachmodelle
Frage 1 von 10
10. Aufträge
Auftrag A – Halluzinationen auf der Spur
Stelle einem Chatbot deiner Wahl drei Fragen, deren Antwort du selbst überprüfen kannst: eine zu deiner Gemeinde, eine zu einer Person aus dem Geschichtsunterricht und eine zu einer wissenschaftlichen Quelle («Nenne mir drei Studien zum Thema …»). Überprüfe jede Antwort und jede genannte Quelle mit einer unabhängigen Suche.
Halte fest, was gestimmt hat, was falsch war und – besonders wichtig – wie sicher die Antwort jeweils geklungen hat. Formuliere daraus eine eigene Faustregel, wann du einem Chatbot glauben kannst.
Abgabe: die drei Fragen, die Antworten, deine Überprüfung und deine Faustregel.
Auftrag B – Wer trägt die Verantwortung?
Wähle einen der Fälle aus diesem Kapitel (Amazon, Kinderzulagen-Affäre, Air Canada, Arup, Deepfakes an einer Schule) und recherchiere ihn genauer. Kläre dabei: Was ist passiert? Wer hat welche Entscheidung getroffen? Wer trägt die Verantwortung – die Programmierenden, die Firma, die Anwendenden, die Politik?
Abgabe: eine Seite oder vier Folien, mit mindestens zwei unabhängigen Quellen.
Quellen
Reuters zur Einstellung von Amazons Bewerbungssystem (2018); J. Buolamwini und T. Gebru, Gender Shades (2018); Untersuchungsberichte und Medienberichte zur niederländischen Kinderzulagen-Affäre (2020/21); Gerichtsdokumente im Fall Mata v. Avianca (2023) und der Entscheid des kanadischen Civil Resolution Tribunal zu Air Canada (2024); Berichterstattung zum Deepfake-Betrug bei Arup (2024); Meldungen von SRF, Tages-Anzeiger und Watson zu den Schweizer Deepfake-Fällen an Schulen; Medienmitteilungen von ETH Zürich und EPFL zu Apertus (2. September 2025).
Der Aufbau dieses Kapitels – erst eine Empfehlung erleben, dann den Datensatz aufdecken, dann ein Modell von Hand trainieren, bevor die Maschine übernimmt – ist angeregt durch ML for Teachers von Thomas Zurfluh (CC BY). Die Beispiele und Applets hier sind eigene.